Les réseaux neuronaux sont vulnérables aux attaques adversariales en raison de leurs caractéristiques. Une nouvelle recherche de Google DeepMind montre que le jugement humain est également affecté par ces perturbations adversariales. Quelle est la relation entre les réseaux neuronaux humains et artificiels ? L'étude suggère que notre précédente hypothèse était peut-être erronée ! Le jugement humain est lui aussi influencé par ces perturbations adversariales.

L'utilisation croissante des LLM rend la nécessité d'améliorer leur sécurité de plus en plus urgente. Les attaques par prompts affectent directement la précision d'exécution des LLM et la sécurité du système. Cet article présente de nombreux exemples d'attaques par prompts adversariaux. Les exercices de "red teaming" peuvent renforcer la résistance des LLM aux attaques adversariales. Les utilisateurs doivent améliorer leur sensibilisation à la cybersécurité.

Fujitsu a annoncé le lancement de deux nouvelles technologies de confiance en matière d'IA visant à améliorer la fiabilité des modèles d'IA conversationnels, notamment la détection des hallucinations et des attaques adversariales. Ces technologies seront intégrées à la plateforme IA "Kozuchi" de Fujitsu, afin de fournir aux entreprises et aux utilisateurs individuels des outils pour évaluer la fiabilité des réponses de l'IA conversationnelle et renforcer la sécurité de l'IA. La première technologie vise à détecter avec une grande précision les hallucinations dans les réponses de l'IA conversationnelle, ce qui permet de résoudre les problèmes potentiels de réponses trompeuses. La deuxième technologie...